Dari 1943 Waldheim bertugas sebagai pegawai dalam Tentera Grup E yang diketuai oleh Jeneral Alexander Löhr. Pada 1986, Waldheim menyatakan beliau hanya bertugas sebagai penterjemah dan kerani dan tidak ada hubungan dengan pembunuhan orang awam di Yugoslavia, tetapi kemudian dia didapati mengetahui pelbagai tragedi di sana.

Di Yugoslavia yang dijajah oleh Nazir Jerman, berlaku pertempuran dan penjara tawanan perang tidak tidak jauh dari pejabatnya. Tetapi beliau menafikan mengetahui pembunuhan di situ.

Nama Waldheim ada dalam senarai menerima pingat Wehrmacht kerana berjaya dalam beberapa operasi tentera . Kerajaan merdeka Croatia menganugerahkan Waldheim dengan pingal perak dengan daun oak dari pemimpin Ustashi , Ante Pavelic.